Được đặt tên là A3J-1, chiếc Vigilante được đưa vào hoạt động cùng Phi đội VAH-3 vào tháng 6 năm 1961, thay thế chiếc A-3 Skywarrior trong vai trò máy bay tấn công hạng nặng. Mọi phiên bản của chiếc Vigilante đều được chế tạo tại xưởng của North American Aviation tại sân bay Port Columbus ở Columbus, Ohio, cùng chung với những chiếc T-2 Buckeye và OV-10 Bronco. Theo Hệ thống Định danh máy bay Thống nhất các binh chủng Hoa Kỳ (1962) do Robert McNamara đưa ra vào tháng 9 năm 1962, chiếc Vigilante được đặt lại tên là A-5, với phiên bản ban đầu A3J-1 trở thành A-5A và phiên bản nâng cấp A3J-2 trở thành A-5B. Phiên bản trinh sát hình ảnh tiếp nối, nguyên là chiếc AJ3-3P, trở thành RA-5C.

Các hoạt động ban đầu của chiếc Vigilante gặp nhiều trục trặc, nhiều vấn đề nhỏ cho các hệ thống trang bị tiên tiến của nó. Nó lại được đưa ra sử dụng vào một thời điểm có sự thay đổi về chính sách chủ yếu của các lực lượng chiến lược trong Hải quân, vốn chuyển sang nhấn mạnh đến tên lửa đạn đạo phóng từ tàu ngầm hơn là máy bay ném bom có người lái. Do đó, đến năm 1963 việc mua sắm chiếc A-5 bị chấm dứt và kiểu máy bay này được chuyển sang vai trò máy bay trinh sát tốc độ cao. Chiếc RA-5C đầu tiên được giao vào tháng 7 năm 1963, và các phi đội Vigilante được đổi tên thành RVAH.

Tám phi đội RA-5C Vigilante đã hoạt động rộng rãi trong Chiến tranh Việt Nam bắt đầu từ tháng 8 năm 1964 phục vụ cho Lực lượng Đặc nhiệm 77, thực hiện nhiều phi vụ trinh sát tầm trung nguy hiểm. Cho dù nó có tốc độ cao và nhanh nhẹn, 18 chiếc đã bị mất trong chiến đấu: 14 chiếc do hỏa lực súng phòng không, ba chiếc do tên lửa đất-đối-không, và một chiếc bị MiG-21 bắn rơi trong Chiến dịch Linebacker II. Thêm chín chiếc nữa bị mất trong các tai nạn trong chiến đấu. Có 36 chiếc máy bay được chế tạo bổ sung trong các năm 1968 - 1970 nhằm thay thế sự hao hụt.

Cho dù chiếc Vigilante phục vụ hữu ích, nó khá đắt tiền và phức tạp để hoạt động, và nó bị loại ra sau khi Chiến tranh Việt Nam kết thúc. Việc giải thể các phi đội RVAH bắt đầu từ năm 1974, và chiếc Vigilante cuối cùng kết thúc hoạt động vào tháng 9 năm 1979.

Chiếc Vigilante đã không làm kết thúc vai trò của chiếc Skywarrior, vốn được tiếp tục sử dụng làm nền tảng tiếp dầu và chiến tranh điện tử. Những chiếc máy bay tiêm kích được trang bị các cụm trinh sát sẽ thay thế chiếc RA-5C. Tiếp nối cho đến ngày nay, trọng lượng của những chiếc máy bay tiêm kích ngày nay như chiếc F/A-18E/F Super Hornet đã tiến triển đến hạng 62.950 lb tương đương như chiếc Vigilante. Chiếc máy bay tiêm kích Super Hornet cũng được hoạch định để bao trùm các vai trò tấn công, trinh sát, tiếp dầu và chiến tranh điện tử như những chiếc máy bay ném bom cũ.

Cho dù chiếc Vigilante phục vụ trong vai trò máy bay tấn công và máy bay trinh sát, thiết kế và cấu hình của nó được tin là đã có một ảnh hưởng lớn trên một trong những chiếc máy bay tiêm kích đánh chặn sau chiến tranh nổi tiếng nhất của thế giới: chiếc MiG-25 'Foxbat' của Xô Viết rõ ràng đã chịu ảnh hưởng lớn của thiết kế chiếc A-5.[2] Những máy bay phương Tây khác như chiếc F-15 Eagle cũng sử dụng kiểu cánh cao và cửa ống hút gió dạng nêm.